Tiền thân của tòa nhà này là khối nhà có quy mô nhỏ hơn và là nơi làm việc của Đổng lý Nội vụ (Direction de l'Intérieur) xây dựng xong vào năm 1864.[3][4] Đây là cơ quan được Thống đốc Nam kỳ lập ra để điều hành trực tiếp toàn bộ các vấn đề dân sự, tư pháp và tài chính của thuộc địa.[5] Dinh Đổng lý Nội vụ lúc bấy giờ được đánh giá là có vai trò quan trọng chỉ sau Dinh Thống đốc (Dinh Norodom).[6] Tên gọi của tòa nhà lúc bấy giờ được dịch sang tiếng Việt là "Dinh Thượng thơ Bộ Lại", người dân gọi tắt là Dinh Thượng thơ.[7][8]

Đến năm 1875, Dinh Thượng thơ được xây mới theo bản vẽ của kiến trúc sư Alfred Foulhoux (1840–1892) và kiến trúc này tồn tại cho đến nay.[9][10] Năm 1888, sau khi Liên bang Đông Dương được thành lập, chức năng của Đổng lý Nội vụ được nhập vào Thư ký Chính phủ Nam Kỳ (Secrétariat général du Gouvernement de la Cochinchine) nên Dinh Thượng thơ trở thành Văn phòng Thư ký Chính phủ Nam Kỳ.[6]

Năm 1946, công trình trở thành Dinh Thủ hiến Nam Việt, rồi Tòa đại biểu Nam phần. Đến thời Việt Nam Cộng hòa, đây là trụ sở Bộ Kinh tế.[3][4]